Theory of Mind and Persuasion Beyond Conversation: Assessing the Capacity of LLMs to Induce Belief States via Planning and Action
超越对话的心智理论：评估LLM通过规划行动诱导信念的能力
🧭 Agent 心智理论评估与规划能力
University of Cambridge · Prolific · Google
提出非对话规划心智理论（NCP-ToM）评估框架，GPT-5在约80%任务中成功诱导信念，超越人类
📌 工作参考价值（4 点）
- Agent 规划能力评估：在电商推荐Agent开发中，可借鉴NCP-ExploreToM框架设计多步骤规划测试，评估Agent是否具备通过环境交互（如调整推荐展示顺序、控制推送时机）来塑造用户偏好的能力。
- 真假信念对齐信号：模型在诱导真信念上成功率更高，暗示可据此设计安全约束——确保推荐Agent的目标是引导用户形成真实偏好而非虚假期望，降低误导风险。
- 自主 Agent 需主动评估：论文强调被动问答不适用于自主 agent，对搜索推荐系统同样适用：应构建 agentic 场景下的离线评测，而非仅依赖静态数据集指标，例如模拟用户动态信念更新的推荐环境。
- 复杂推理与规划结合：任务要求多步逻辑推理（如物体可见性、角色知识限制），对构建能处理多约束、多目标规划的商品组合推荐或广告投放策略 agent 有启发，可引入类似的符号关系推理微调方案。